AI资讯新闻榜单内容搜索-prompt inj

关键词: 模型训练,AI新闻,AI安全,prompt injection

日常聊天可能在不经意间污染个性化Agent的长期记忆，使其在未来任务中偏离用户真实意图。研究人员通过ULSPB基准测试发现，即使无恶意提示，日常对话也可能改变Agent的安全边界。